Who Takes the Lead? Model Ability and Task-Conditioned Collaboration with Humans
谁主导？模型能力与任务条件化的人机协作
🧭 Agent 人机协作与任务条件控制分配
McGill University · MIT - Massachusetts Institute of Technology · University of Cambridge · University of Toronto · Mila - Quebec AI Institute
在共享控制迷宫中证明强模型能根据人类相对优势选择性分配控制，而非简单减少人类参与。
📌 工作参考价值（4 点）
- 在构建搜索/推荐 Agent 时，不要用“人类介入率”作为协作质量指标；应评估 agent 在给定上下文下的相对能力（如用户偏好的可预测性、数据稀缺性），动态决定是否请求用户、自主执行或完全移交，类似路由机制。当用户侧有信息优势（如长尾个性化、实时意图）时引入人工，常规高频查询则 agent 自主处理。
- 借鉴共享控制接口设计：让 agent 每步输出显式控制决策（act/request/handoff），便于监控和在线评估；用 solo 性能作为先验，对低能力模型或低置信场景增加 human-in-the-loop fallback。
- 任务条件化协作可作为离线评估框架：构造“人类优势/均势/agent优势”的模拟环境，量化不同 LLM 的协作策略，用于选型或提示词调整，避免上线后才发现 agent 过度求助或过度自主。
- 实验发现强模型在人类无优势时几乎不求助，仅在人类路线更短时约80%初始决策涉及人类，说明可设置阈值或条件策略：只有当用户信息增益显著大于 agent 能力时才触发人类参与。